报考人工智能?这位常州中学走出的教授给你最好的建议
屠可伟博士
屠可伟博士毕业于江苏省常州高级中学,在上海交通大学计算机科学与工程系获得学士和硕士学位,在美国爱荷华州立大学计算机科学系获得博士学位。博士毕业后在美国加州大学洛杉矶分校统计系和计算机系从事博士后研究工作。2014年2月加入上海科技大学信息科学与技术学院任助理教授。
导言
在科研道路上,他保持初心、水到渠成;在育人道路上,他耐心指导,教学相长;在人生道路上,他明确目标,从容不迫。本次伯禹有幸邀请到了屠可伟博士,并与他面对面交流,听他讲述享受科研、教书育人的二三事。
1
做科研,保持初心,持之以恒,方能水到渠成
小编:您如何选择自己的学术道路?
屠可伟:我在交大APEX实验室读研的时候对研究并没有很深的了解,基本上是跟随实验室的研究方向。
在美国读博时,我的博士导师Honavar博士是一位“放羊型”导师,他并不限制学生的具体研究方向,学生可以自主探索、选择自己想做的课题。当然伴随而来的一个问题就是,导师能够提供的具体科研指导会比较有限。当时我选择做无监督文法分析时,我的导师已经多年没有涉猎过这个方向了,所以我的选择是出于我对通用人工智能或者说强人工智能的兴趣,我希望去找一个方向、一个课题,做出的成果应该是不局限于应用在人工智能的某一个领域上,而是一个普适的方法,可以在语言、视觉、推理等各个领域都有所应用。
屠可伟博士在UCLA参加IPAM summer school
文法及其扩展当时在多个领域都有所应用,在我看来是一个很有意思的方向。而在除了语言之外的大多数领域,文法必须通过无监督的方式学习。所以我把无监督文法分析作为我的博士论文课题。由于文法的起源还是在语言上,所以博士期间我主要还是研究语言的文法学习。
在博士毕业后,我开始探索把我所研究的语言文法学习技术扩展到其他领域。这也是为什么我选择去UCLA朱松纯老师的课题组做博后,从事计算机视觉上的And-Or Grammar研究。在朱老师的指导下,我也在视觉领域做出了很有意思的方法,并把它泛化到了更多领域。当然最近几年我的研究又回归了语言领域,一个主要原因是深度学习的兴起,我希望先在语言这个相对清晰简洁的模态上把深度学习和文法结构有机结合起来。未来我还是希望能把这些技术扩展到其他领域,去探索更为通用的人工智能方法。
小编:为什么选择在学校做科研而非在企业做科研?
屠可伟:企业的研究机构的优势是充足的资金、设备、人力支持,但企业不可能长期支持完全自由的学术研究,在企业做科研,或多或少的都需要与企业的商业方向相契合。
而在学校做科研的好处就是理论上你是完全自由的,但资源相对受限。这一点在深度学习时代更加明显,企业可以凭借资源优势研究一些学术界没有资源尝试的大规模模型和实验。
小编:可以分享一些科研道路上印象深刻的事吗?比如有没有特别激动的时刻?
屠可伟:能想到理论上漂亮的idea并在实验中证实是最让我激动的事。譬如我2012年时发表于EMNLP的一篇无监督依存解析的论文,基本思想非常简洁优美,实验效果也很好。最初的idea是我在一天晚上快要睡着时突然想到的,当时立刻就兴奋地睡不着了,下床拿纸笔写了初步推导。接下来几周做实验,发现可以显著超过当时最好的方法。第二年我还用这个方法拿到了一个国际学术比赛的第一名。这是让我印象最深的研究经历之一。
小编:有开心的时候就一定也会有遇到阻力的时候,能分享一些瓶颈期的经历吗?
屠可伟:肯定是会碰到瓶颈期的,比如说刚才我提到博士期间是单打独斗,老师那边能提供的帮助也比较有限,所以有很长一段时间科研进展都很不顺利,曾经有做了一年的方法最后失败的经历。但我的经验是,如果当前的研究方向遇到瓶颈,不妨转变思路,看看其他方向的工作,做些新的尝试,这样有可能厚积薄发、在新的方向取得进展,也可能在原先的方向触类旁通。我博士期间有段时间在文法结构学习方向非常不顺利,于是转变思路,转去看一些文法参数学习的资料,开始往这个方向尝试,逐渐取得了不少的成果,包括前面所说的2012年的工作。这不算是一个转折点,而是水到渠成,在调整方向之后自然就有所收获了。
小编:您怎么看不那么热门的领域发论文的引用量会比较低?
屠可伟:研究人员相对多的热门方向,论文引用量自然会高。像我现在引用量最高的一篇论文是我在UCLA做的,2014年发表的,文本和视频联合解析并用于问答和文本生成。那时恰逢VQA和Image Captioning这两个课题开始成为热门,这两个方向的论文一下子多了起来,有不少都引用了我们的论文。所以我的这篇论文其实是刚好赶上热潮的起点。但我认为从学术角度来讲一味追求引用量没有很大意义。在我看来引用量能反映一篇论文当下的影响力,但并不完全反映其质量、学术意义和长远的影响力。所以我还是会更多选择去做一些我感兴趣的、觉得有意义的题目,而不会太在意引用量和热门程度。
2
当教师,细心培养,教学相长,彼此共同进步
小编:可以聊一聊您在上海科技大学当助理教授的经历吗?
屠可伟:我们学校对年轻教师的支持力度很大,年轻教师都有独立的课题组,学校提供充足的资金和硬件支持,同时教学和事务的工作量也比较适中。所以入职上科大之后,我能够带领学生在科研上取得不错的进展,其中一些工作已在像CMU这样的国际顶尖高校的课程中被提及。
屠可伟博士的学生蒋勇和韩文娟在美国参加emnlp国际会议
小编:您的学生遇到困难时您会如何给他们指引呢?
屠可伟:我把我的学生分成一到三人的项目小组,每周都会和每个小组详细讨论研究进展和碰到的困难,譬如一起想idea、推公式、分析实验细节等。
特别是对于科研初期没有太多经验的学生,我会给予更细致的指导。写论文时我也基本都会从头到尾仔细修改一到两遍。对于高年级的学生,已经具备一定的研究经验了,我会放手让他们去探索,给予足够的自由度。由于他们有时也会涉猎一些我并不熟悉的领域,所以其实我也在向自己的学生学习,吸收一些东西,这是一个教学相长的过程。
3
定目标,细规划,享受科研,方能从容不迫
小编:您能力这么强,基础又很扎实,有没有想过去涉足一些其他领域呢?
屠可伟:其实我之前涉及的领域就较为宽泛,包括语义网、自然语言处理、计算机视觉、机器学习里的概率建模、数据挖掘。我曾希望基于文法能做出一套较为普适的方法在多个领域得到应用,也做出了一些成果,但后来随着更深入的研究发现了不少困难和瓶颈。深度学习在各领域兴起之后,大约2016年起我又回归了自然语言处理这样一个相对更为清晰明了的模态,希望把深度学习的方法和之前所研究的文法方法深度结合起来,这是我过去三年间做的事情。如果以后我的研究达到了期望的进展,也许我会想回到计算机视觉等其他领域进行再次尝试。
小编:您的人生节奏很慢,这么多年的学术道路您是如何做到如此从容不迫的呢?
屠可伟:可能因为我喜欢做研究,比较享受科研,愿意做一些比较自由的探索。
我的建议是,一方面要花充分时间做好大方向上明确的规划,不要太急,不要看着别人都在做什么东西,就也盲目从众,而是要明确自己想要什么、适合什么。
另一方面,一旦选择好自己的目标之后,要朝着你的方向去努力,不要太放松,稳扎稳打地走自己的节奏。
小编:您在做学术时对自己有什么要求和期许?
屠可伟:我希望我做的研究和成果能够有长远的影响力,最终被更多人所用到,希望对整个领域的发展有所贡献。
4
寄语新人,展望未来
小编:您对正在科研道路上或者想要走上科研道路的后辈有什么建议?
屠可伟:最关键的第一步是把基础打牢。做人工智能包括两个重要基础:CS和数学。然后你应该尽可能去了解这个领域。人工智能是很大的一个领域,包含很多方向。由于不同分支领域的研究目标、方法和技能要求也有所不同,要去了解子方向中哪个是自己最感兴趣,也最符合自己能力的。这可能会是一个漫长的过程。你在确定了研究方向之后不一定要跟风去做当前最热门的东西,因为当前的热点从长远看不一定是最有意义的,你要做的是更深入的研究。
小编:您怎么看待人工智能领域未来的发展?
屠可伟:1956年达特茅斯workshop是人工智能的起点,距今已有六十多年的历史了。这期间百家争鸣,出现了很多不同的流派。这些流派此消彼长,起起伏伏,但都有它们各自的优缺点。比如当前最热门的神经网络方法,优势在于非常灵活,在一些条件下效果非常好。比如符号主义,很多知识很难用一个神经网络完美表示,还是要靠符号和逻辑去表示。比如基于统计的方法在数学上是很严密的,这和神经网络相比也大不相同。近几年出现了很多把神经网络和统计方法、符号方法相结合的研究。我近期的主要研究就是把神经网络方法和基于符号和概率的文法分析相结合。所以我认为未来的大趋势必然是这些流派的逐步融合。
5
学生眼中——最理想的学者
此外,我们也有幸邀请到屠老师的第一位博士毕业生蒋勇,与他对谈师从屠老师的科研经历。
屠可伟老师与博士生蒋勇
蒋勇于2014年9月开始博士一年级,由于本科并非计算机专业,上手十分艰难。他回忆起科研初期,自己读不懂论文、看不懂算法流程、不知如何改进,导致很多事情都无从下手。而那时是屠老师在办公室的白板上耐心地举例子、讲解模型,从头到尾细致地剖析一个算法,手把手地带领他入门。
2014年的秋季,还是低年级的蒋勇和其他学生在屠老师的带领下一周读一章机器学习经典教材,这让他一学期就啃下了整本书的重要章节,为机器学习打下了坚实的基础,更对蒋勇后来的科研道路有着不可忽视的帮助。
2015年蒋勇做研究课题,在代码部分遇到过一些困难,令他惊讶的是屠老师竟然亲自帮他debug、修改代码结构。不同于大多数博士生导师给予高层次的指导,屠老师对学生的帮助总是落实到细节处。对刚入学的学生而言,从0到1的过程是十分艰难的,有些学生甚至需要花费几年的时间。而蒋勇说,在屠老师一步一步的引领下,他规避了很多困难点,较为轻松地跨过了这个坎。在屠老师的指点下写论文时,蒋勇更是感受到了屠老师无比严谨细致的高要求。
除了学术上的照顾,蒋勇告诉我们生活中屠老师也是一个非常关心学生的“暖男”。与屠老师一起在伯克利交流的半年时间里,蒋勇曾把炒面做成面疙瘩,把鸡汤做得像水一样淡,是屠老师教他做饭、照顾他们的生活。闲暇时间,屠老师也会带着学生们一起出去游玩,凡事安排得面面俱到。
从“一穷二白”的AI小白到如今将要在阿里达摩院继续发展做研究,蒋勇无比感谢屠老师一路的倾囊相助。当被问及在他心中屠老师是怎样一位学者时,蒋勇想了想,仿佛有些词穷,最终他回答说——“学者中的学者”。
感谢 伯禹人工智能学院 支持供稿,原题《对话学者屠可伟:享受科研,保持初心,从容不迫》
转载请联系伯禹新媒体小助手
采访人:贺子仪、王雯茜
编辑:贺子仪、刘晓雨
欢迎推荐,欢迎转发
欢迎投稿原创稿件,欢迎媒体选用,转载需与本公号联系
评论是一种态度,评论是一种思想,评论应该是一种正能量。
亚波评论,聚集有温度的评论!